อาร์นิมเข้าร่วมกองทัพจักรวรรดิเยอรมันใน ค.ศ. 1907 และมีส่วนร่วมในสงครามโลกครั้งที่หนึ่ง ภายหลังสงคราม เขายังคงปฏิบัติหน้าที่ในไรชส์แวร์และแวร์มัคท์ ต่อมาในช่วงสงครามโลกครั้งที่สอง เขาได้บัญชากองพลทหารราบที่ 52 (52. Infanterie-Division) ในการบุกครองโปแลนด์และยุทธการที่ฝรั่งเศส และในเดือนตุลาคม ค.ศ. 1940 เขาได้รับตำแหน่งผู้บัญชาการกองพลยานเกราะที่ 17 (17. Panzer-Division)

พลโทอาร์นิมนำกองพลยานเกราะที่ 17 เข้าร่วมในปฏิบัติการบาร์บาร็อสซาเพื่อรุกรานสหภาพโซเวียต ต่อมาในวันที่ 1 ตุลาคม ค.ศ. 1941 พลเอกอาร์นิมได้เป็นผู้บัญชาการกองพลน้อยยานเกราะที่ 39 (XXXIX.Panzerkorps) และได้รับยศพลเอกอาวุโสในเดือนธันวาคม ค.ศ. 1942 ต่อมาในเดือนกุมภาพันธ์ ค.ศ. 1943 ได้รับแต่งตั้งเป็นผู้บัญชาการกองทัพยานเกราะที่ 5 (5. Panzerarmee) ในบัญชาของจอมพลแอร์วีน ร็อมเมิล บนทวีปแอฟริกาเหนือ

พลเอกอาวุโสอาร์นิมขึ้นรับตำแหน่งแม่ทัพกลุ่มแอฟริกาต่อจากจอมพลร็อมเมิลในวันที่ 10 มีนาคม ค.ศ. 1943 เขายอมจำนนต่อกองทัพต่างแดนบริติชในวันที่ 12 พฤษภาคมปีเดียวกัน จากผลของปฏิบัติการวูลคานของฝ่ายสัมพันธมิตร[1] อาร์นิมพร้อมนายพลเยอรมันอีก 24 คนถูกกักกันตัวที่ค่ายคลินตันในรัฐมิสซิสซิปปี สหรัฐอเมริกา[2] และได้รับการปล่อยตัวในวันที่ 1 กรกฎาคม ค.ศ. 1947[3]